TaskBridge：面向 2026 SIGIR 电商挑战赛的任务型查询改写技术报告
🧭 任务型电商 Query 改写 · Catalog 锚定选词 ★ 深度解读
Shandong University · Harbin Institute of Technology (Shenzhen) · City University of Hong Kong · Southeast University
以目录语义锚定、五候选改写和协议感知选择实现任务型电商查询的 BM25 检索增强，获挑战赛第一
📌 工作参考价值（4 点）
- 构建 catalog 短语词典与 semantic anchors：从商品标题/描述中抽取 n-gram 短语，用 LLM 纯化为 product category/object/accessory 三类可购买实体，过滤品牌、场景噪声，再用 embedding 在线检索语义锚点。这套离线资源可直接用于电商搜索 query 改写、query 推荐、召回阶段的 query 扩展，缓解用户活动型表达与商品标题的词汇鸿沟。
- 多候选改写 + 协议感知选择：生成 raw/feedback/vote/need/prod 五类候选，覆盖保守到激进、意图保护到产品导向的不同改写假设；再以 BM25 top10 的 reranker 分数加 log 折扣作为质量代理，Automatic 选最高分，Interactive 用 weighted Jaccard overlap 做 Pareto 多样性选择。这个选择框架可迁移到多 query 改写、生成式重写、多策略召回合并，控制多样性与质量平衡。
- 无训练 LLM 改写 + 传统 BM25 的轻量架构：整个方案不训练模型，依赖 Qwen3.5-9B 生成改写、embedding/reranker 做选择，最终仍走 BM25 检索。适合需要快速落地、资源有限的业务场景，可先用 LLM 辅以字典约束生成多个候选，再用 reranker 代理选优，降低上线成本。
- 多轮反馈里的 Keep/Add/Drop/Replace 编辑和 margin 接受条件：对 Agent 式 query 优化有直接参考价值，能避免 LLM 在迭代中过度改写造成意图漂移。
别重写 SID 映射：动态电商搜索生成式检索的拓扑保持
🧭 生成式检索 · SID 拓扑保持 ★ 深度解读
Taobao & Tmall Group of Alibaba · Nankai University · University of Science and Technology of China
系统量化 SID 重映射损害，提出冻结旧 SID/插入新物品/热启动的拓扑保持更新原则，线上 GMV +1.16%
📌 工作参考价值（4 点）
- 生产级生成式检索更新 SID 映射时，优先冻结旧 item 的 SID，新 item 按业务价值插入；避免整体重映射。该方法在 TmallAPP 7 天热启动更新 + 每日插入新 SID 的线上方案中带来 UCTCVR +0.29%、GMV +1.16%。
- 离线评估必须同时看窄 beam 和宽 beam：宽 beam 会掩盖语义漂移。文中映射刷新在 HR@1000 仅掉 8.33-10.85%，但 HR@1 掉 41.78-62.05%。如果线上 serving 用窄 beam，宽 beam 离线指标会给出虚假安全感。
- warm-start 直接 fine-tune 旧 checkpoint 即可，不要做 model soup / weight interpolation。Frozen warm-start 对旧 item HR@1 提升约 10%，新 item HR@1 提升约 109%；而权重混合同等或更差。若没有算力做 warm-start，宁可不训练继续冻结旧 SID，也不要重映射后微调。
- 电商大 item 量级下，hybrid collision-aware SID 设计可控：头部 top-100 唯一 token，尾部共享 bucket，比 full-sparse 略优且更省码本；可作为生成式检索落地的工程选择。
从大规模教师到高效多模态学生：搜索相关性预测蒸馏
🧭 搜索相关性预测 · LLM蒸馏多模态学生 ★ 深度解读
eBay · Tooploox
用GPT-4.1当裁判生成48万条相关性标签，蒸馏到Gemma-3多模态小模型，精度接近教师、吞吐大幅提升
📌 工作参考价值（4 点）
- 用高能力闭源LLM作为标注器（LLM-as-a-Judge）批量生成query-item相关性标签（含解释），再用这些数据SFT小模型。如果业务有大量未标注query-item对，可以先小规模人工标注校准prompt，再放大生成训练集，成本远低于人工标注。
- 蒸馏时保留“先给标签再给解释”的respond-then-explain格式，并让生成解释参与训练，能显著提升小模型在难样本/边缘类上的F1（Test1 F1从68.32提升到76.19）；业务落地可以只输出标签、按需输出解释，推理成本分离。
- 多模态学生模型用更低分辨率图像（300px）训练即可接近高分辨率，但提升到900px在难样本上有1-2点收益且不影响Gemma-3推理延迟（内部统一256视觉token）。电商场景商品图往往很大，不必过度压缩。
- FP8量化在单卡H100上无解释吞吐从194 req/s提升到271 req/s（+39%），精度几乎不降，适合高吞吐在线相关性服务；选型上12B模型在精度/吞吐Pareto前沿优于27B。
电商搜索文档扩展中基于 DPO 的查询生成 QGDPO
🧭 生成式查询扩展 · DPO 偏好对齐 ★ 深度解读
Walmart Global Technology
用相关模型构造偏好对做 DPO，再将生成 query 过相关过滤，显著减少 Doc2Query 幻觉并提升线上搜索相关性与加购率
📌 工作参考价值（4 点）
- 可直接复用「相关模型自动构造 DPO 偏好对」：用已有的三分类相关模型 exact/substitute/irrelevant 对 SFT 生成的 query 打分，按 exact 和 irrelevant 自动配对，省去人工偏好标注；DPO 学习率用 1e-6（远低于 SFT 的 1e-4），β 取 0.1，能明显压住幻觉。
- SFT + DPO 之后再接 relevance filter，两个增益相互独立、可叠加；过滤阈值选 95% recall，既能保持较高 precision（0.866），又不过度牺牲生成的新 token 数量，适合商品文档扩展场景。
- Query 生成式检索里，beam search（beam=10，no repeat ngram=2）比 top-k / top-k+top-p 更稳定，exact 率更高、irrelevant 率更低；如果业务追求线上检索结果稳定可复现，优先用 beam search。
- 用 Mistral-7B + LoRA（rank=256, alpha=64）替代 T5-base 做 Doc2Query，在媒体、玩具等依赖世界知识的商品上能生成更多有用新 token，但需离线批量推理并权衡成本；可以只对长尾或特殊品类启用 LLM 版本。
残差轨迹蒸馏用于生成式检索
🧭 生成式检索 · Semantic ID · 残差蒸馏 ★ 深度解读
Beihang University · Meituan
把冻结RQ索引器的残差码本偏好蒸馏进SID解码状态，保留检索索引与推理不变
📌 工作参考价值（4 点）
- 如果已经在用 RQ Semantic ID 做生成式召回/推荐，可以把冻结的 RQ indexer 当成现成 teacher：沿存储 SID 重建残差，用残差到码本的距离构造 soft target，KL 对齐 SID 解码状态；训练只加几个投影头，推理时全部移除，beam search 和索引完全不变。
- 多 horizon future 监督值得复用：让早期解码状态同时预测后续几层码本偏好，类似 multi-token prediction，但目标是码本分布而非 hard token；这能提前注入后续结构，缓解 beam search 早期剪掉正确 item 的情况，电商商品检索里尤其适合互补/长尾商品。
- 必须做 collision-aware 修正：线上 SID 通常经过去重/冲突解决，直接拿原始 RQ 残差会与最终索引不一致。实现时沿最终存储 SID 重建残差路径，并对 soft target 做最小 margin 插值，保证存储 code 仍是最高概率；这是工程能否落地的关键细节。
- 控制实验显示 shuffled teacher、非目标对应或全局 codebook-only 都会掉点，说明 teacher 必须保留 item 级对应关系，不能只做通用码本统计蒸馏；在生成式推荐里 TIGER 类骨干同样可接入，B-Shop/Yelp 上提升更明显。
学习层级生成式检索的多分辨率相关监督
🧭 生成式检索 · Semantic ID 多分辨率监督 ★ 深度解读
Beihang University · Meituan
将文档相关度投影为 SID 层级各层的条件分支分布，训练共享 query 表示并保留标准自回归推理
📌 工作参考价值（4 点）
- 对于生成式召回中一个 query 对应多个相关 item 且共享粗粒度 ID 的情况，将 item 相关性按 SID/品类树投影到各层前缀，构造条件分支分布作为辅助监督，训练后丢弃辅助头，不增加推理延迟，可直接叠加到现有 full-SID/生成式召回训练。
- 用 parent relevance mass 加权局部 KL，并在候选集包含所有相关 children 和若干高打分 legal sibling negatives，显式建模同父节点分支竞争，比每条正样本独立 one-hot 监督更稳，可迁移到层级品类树下的 item ID 生成。
- 推理时可在 beam search 中加入前缀级 query-catalog 兼容性打分（如品类、属性、词法匹配），权重在验证集选，提升最终排序中相关分支覆盖率；中间层作用更大，别只靠 leaf 分数。
- 可借鉴 refinement entropy / ambiguity 指标量化 query 在每层 ID 的分支不确定性，用于评估 ID 结构是否合理、标注是否稀疏；不完整标注会掩盖粗粒度分支。
Target 零售商品搜索的实用混合检索方案
🧭 电商搜索 · 混合检索与结果融合
Target Corporation
Target 混合词法-向量检索，加权交错融合，线上 CTR/转化提升并零结果减半
📌 工作参考价值（4 点）
- 电商搜索/推荐候选生成不要用向量完全替代词法或协同信号：保留双通道，向量通道承接自然语言和长尾查询，词法/ID 通道保证精准意图与品牌/SKU 命中；同时把 zero-result 作为上线必须观测指标。
- 多路融合优先实验 weighted interleaving：相比简单分数归一化或串行合并，它能更稳地控制各通道曝光与排序多样性，本案例线上 CTR、订单转化和每访客需求均获得提升。
- 将精度控制作为最终结果集独立环节：对向量召回噪声做词法命中、规则或分类器过滤，再交给精排，尤其适合电商 SKU/品牌/规格等硬约束场景。
- 生产部署把 embedding 计算、ANN 索引、缓存和融合放关键路径优化，并对向量通道做降级与超时控制，保证低延迟；可复用到实时搜索和推荐召回。
RegRet：增强大型多模态模型中的区域级检索
🧭 多模态区域级检索 · 对比学习
Zhejiang University · Xiaohongshu Inc.
通过 Region-Aware Encoder 与多阶段对比学习，在不牺牲全局检索性能下大幅提升区域级检索
📌 工作参考价值（4 点）
- 电商以图搜图/相似商品推荐场景中，用户常指定 ROI（如局部图案、纹理），全局检索易被背景干扰误召。可借鉴 Region-Aware Encoder 思路：在现有多模态编码器上增加区域特征分支，与全局特征做加权或注意力融合，输出联合表示，提升区域查询召回精度。
- 训练流程采用“局部字幕生成→区域对比学习”两阶段设计：先利用图文对自动生成区域描述构造正负样本，再对区域表示做对比微调。业务中可直接复用该 pipeline，用少量人工标注或伪标注构建区域级训练数据。
- 论文表明仅零样本推理的区域级检索能力就超过强基线，说明预训练 LMM 已隐含区域理解；若业务受限于标注，可先直接使用 LMM 区域裁剪+文本匹配做召回，再逐步用对比学习微调。
- 引入 REGMB 基准，覆盖区域-区域/区域-文本等四类任务，评估体系可参考扩展；尤其对电商搜索，可建立内部 ROI 检索评测集，量化不同模型对细粒度意图的满足度。
电商搜索中面向需求与转化的多模态 Doc2Query 对齐
🧭 电商搜索 · 多模态文档扩展与 RL 对齐 ★ 深度解读
Alibaba International Digital Commerce Group
三阶段课程学习将多模态 Doc2Query 对齐到召回增益和商业转化，线上 GMV +3.38%
📌 工作参考价值（4 点）
- 布尔召回下，文档扩展不要做 TF 加权，只生成不在 title 中的新词；训练时用信息增益过滤（V_Q ⊈ V_T）防止模型退化复制标题。
- 用 CPV 视觉属性码表做反事实掩码：把 title 中的颜色/材质/款式等词遮掉，保留图片，构造多模态样本，逼模型从图里补属性，改善长尾/短标题商品召回。
- 奖励设计可直接复用：安全 gate 先滤掉低相关或无新词生成，再叠加语义评分 + 商业词价值（PV×CVR 贝叶斯平滑，冷启动词用全局分平滑）+ 视觉属性 bonus；优化用 GRPO 省 value net。
- 工程上离线对选品批量生成 Top-K 查询填充倒排索引，线上无模型推理，索引 +35% 但 P99 延迟只 +0.2%，增量可回滚，适合大规模电商搜索。
从检索结果中学习：语义检索的在线 RL 微调
🧭 语义检索 · 在线 RL 微调 ★ 深度解读
Alibaba Group
提出 PAO，在冻结文档索引下只对正 advantage 样本做 RL 更新，避免 embedding 几何塌缩并提升检索效果
📌 工作参考价值（4 点）
- 工业双塔召回中文档索引冻结是常态，PAO 的 RL 更新只作用于 query encoder，无需重建索引；可直接改造现有 REINFORCE：对 advantage 加 I(A>0) mask，并加入 KL 到预训练 reference policy，工程落地成本低。
- 如果业务上用 reranker 或点击信号作为 reward 做在线 RL，不要无差别惩罚低 reward 样本。标准 policy gradient 的负向 push 会破坏预训练语义流形；优先只利用正 reward 的 pull 信号，能更稳定地做 retriever-reranker 对齐。
- 与直接蒸馏 reranker soft distribution 相比，positive-only policy gradient 在冻结索引下更稳，尤其深层召回 Recall@50 提升更明显；当目标是对齐精排偏好时，可优先考虑 PAO 而非全局 KL 蒸馏。
- 使用标准化 advantage 降低方差；β=0.1~0.3、τ≈1.0 是较稳健的超参区间。注意 reward model 的偏差会传导到召回，若 reranker 偏好标题党，需要多目标或额外约束。
电商生成式检索：联合学习 Embedding 与 Codebook 的同商品簇一致性方法
🧭 生成式检索 · 联合训练 Embedding/Codebook ★ 深度解读
Alibaba Group
用同商品簇信息联合训练 embedding 与 codebook，消除两阶段误差累积，提升生成式电商检索召回
📌 工作参考价值（4 点）
- 电商场景中，可利用商品簇（同 SKU/同款不同卖家）作为强监督：对每个商品采样同簇商品并计算均值 embedding，加 MSE 拉近商品 embedding 与簇均值，能显著提升 Semantic ID 的一致性；可直接复用现有商品关系（ASIN/货号）构造训练信号。
- 避免两阶段训练：将 RQ-VAE 的 codebook 与 embedding model 联合优化，同时引入 query-product 对比学习，让 codebook 不再只依赖静态商品 embedding；实现时可将 InfoNCE 分别加在原始 embedding 和量化重构表示上，端到端对齐查询与商品空间。
- 引入新 token 的 LLM 微调可采用两阶段：先 product info -> product ID，再 query -> product ID，让模型先掌握新特殊 token 的语义，再学习查询到 ID 的映射，对生成式检索 fine-tune 更稳定。
- 规模配置可参考：5 层 codebook、每层 32 码、768 维、GTE 编码器、Qwen2.5-7B；20M 商品 + 40M query 训练即可获得稳定提升；ALSP 指标适用于评估同簇商品 ID 的一致性。
ICEGR：面向电商搜索的意图一致端到端生成式检索框架
🧭 生成式检索 · Query-intent 一致 ★ 深度解读
University of Science and Technology of China · Baidu · Beihang University · Renmin University of China
提出 ICEGR，通过意图感知 Semantic ID、合成查询增强 SFT 与相关性校准偏好优化，提升电商生成式检索的查询意图一致性
📌 工作参考价值（4 点）
- 可迁移点：
- Semantic ID 构建：不要只用标题/描述等静态文本。用 query-product 点击 logs 对齐 embedding（InfoNCE），构建 shared-query co-click 图做语义锚定图传播，再融合产品历史 query 的加权意图向量，并用 confidence gate 控制强度；最后 RQ-KMeans 量化。利于 SID 空间编码搜索意图，可直接用于生成式检索/推荐中的 item ID 学习。
- SFT 数据补足：对全目录商品用结构化字段（SPU/品牌/类目/系列/属性）自动生成多粒度合成 query（实体指定 + 属性约束），采用 two-stage：先 synthetic query-to-SID 训练，再真实日志微调。对长尾低曝光商品尤其有效（Low 组 Recall@20 +36.2%），可显著缓解 query-to-item 监督稀疏问题。
- 业务偏好优化：做 DPO/RL 时先限制候选需通过语义相关性 scorer（SRS），只在相关子集内比较业务价值（SBP）；用 pairwise composite-score margin 动态缩放 DPO 系数，避免过度优化强偏好对，保留 query 意图。辅助 SFT 项防退化。线上可直接作为端到端生成路径插入 MCA：beam search 生成 top-k 直接进最终列表，其余候选走原排序。
SSR-GRPO：融合监督与语义ID的强化学习电商稠密检索
🧭 电商稠密检索 · Semantic ID + RL ★ 深度解读
Alibaba Group
用层级语义ID替代大模型裁判并构造难负样本，提升电商稠密检索的RL训练稳定性
📌 工作参考价值（4 点）
- 用 RQ-VAE 学层级 Semantic ID 作为稀疏 relevance 信号：item 量化成 3 层 SID，query 用 LLM 生成 SID，按前缀匹配深度打分（0/0.25/0.5/1.0），与 dense embedding 融合后替代 Judge LLM。SID-only 效果已接近 42B MoE 判官，训练成本低且减少裁判偏置，适合电商召回模型 RL 落地。
- 难负样本构造可复用：Type II 共享前两层 SID、只差第三层的负样本能逼迫模型学细粒度语义边界；Type I 用进入粗排但被精排低分过滤的样本，作为“语义相关但商业弱”的负样本，适合电商 CTR/CVR 目标。
- Masking 机制：GRPO 中 top-K 候选里 reward 低于 hard negative 的样本直接 mask 掉，可过滤 batch 内噪声 easy negatives，缓解 Reward Hacking；类似 DeepSeek V3.2 的 off-policy sequence masking。
- 多目标联合优化：RL 梯度方差大，用 R-DPO（无 reference policy 的 pairwise margin loss）提供稳定监督梯度，配合 uncertainty-based dynamic weighting 避免手动调权；同时 SFT 初始化不可省略，RL-only 效果很差。
SPEAR: 社区搜索中端到端自适应改写与检索的防短路框架
🧭 端到端查询改写与检索联合优化 ★ 深度解读
National University of Singapore · Shanghai Dewu Information Group Co., Ltd.
通过梯度隔离双嵌入、乘性门控和动态选择器，解决改写-检索错位与通用词主导效应，点击召回@10提升99.5%
📌 工作参考价值（4 点）
- 在多路召回改写系统中，可用乘法门控替代加法路径评分（如 Softplus 保证非负后加权），强制改写贡献需同时满足高置信与高 item 相关，直接消除高频通用词的分数膨胀问题。
- 若模型同时服务召回和排序任务，采用双嵌入分支 + stop-gradient 隔离梯度，保护召回语义不被 CTR 优化扭曲，工程上仅需增加少量投影 MLP，易于部署。
- 动态生成样本级的 scale/bias 参数（由用户和 query 表征共同决定），使改写权重与匹配分数能随请求自适应校准，比固定超参更具个性化性。
- 离线评估改写模型时，可同时关注 Exposure Recall、Click Recall 和 Semantic Similarity 三个指标，分别衡量检索覆盖、点击恢复和意图保真，避免单一语义相似度的片面性。
知识–几何解耦：流式推荐中可持续刷新的预训练迁移
🧭 流式推荐 · 预训练知识迁移 · 参数解耦 ★ 深度解读
Xiamen University · Shopee Pte. Ltd.
通过解耦预训练知识刷新与任务几何学习，使每日更新不干扰下游模型，在电商搜索中提升GMV 1.75%
📌 工作参考价值（4 点）
- BMTP 去噪预训练：仅对协同 (item co-occurrence graph) 和语义 (text embedding cosine) 相关的未来 item 做预测，过滤掉 session 边界的噪声 transition。可在行为序列预训练中引入双阈值过滤，提升知识纯度。
- 解耦读写所有权：让任务模型通过只读交叉注意力读取编码器状态，并通过正交低秩残差 (ACR) 写入任务特有几何，预训练编码器可每日刷新而不破坏下游适配。可推广到多任务排序：每个任务持有独立的 ACR 和 task learner，共享编码器。
- 工程落地友好：训练成本约为单次编码器更新的两倍，推理延迟不增加（任务 learner 仅增加旁路参数）。在实时流式场景可直接复用这种每日刷新 + 任务冻结调优的管线。
- 长期流式下的稳定性：冻结迁移 (如 GPSD) 在 90 天线上会衰减，KGD 持续有效。若自己业务面临分布漂移，可借鉴 decoupled owner 思路，避免共享参数导致刷新与任务冲突。
通过隐含意图生成提升电商搜索物品可发现性
🧭 搜索 · 意图生成 · 发现增强 ★ 深度解读
Instacart
用 LLM 生成替代/补充/主题意图扩展召回，通过两阶段架构在头部用闭源模型缓存、尾部用蒸馏 SLM 覆盖，将流量覆盖率从 60% 提升至 80% 且成本仅 30%
📌 工作参考价值（4 点）
- 意图驱动的召回扩展：定义替代、补充、主题三类隐含意图，用 LLM 生成“轮播标题 + 意图词列表”来扩大候选池，可直接改造搜索底纹中的“发现式”模块，解决精确匹配造成的长尾冷启动曝光不足。
- 两阶段成本与覆盖权衡：头条查询离线缓存闭源 LLM（GPT-3.5 Turbo）结果，长尾查询在线用 LoRA 微调的 30B SLM 推理，使用 teacher-student 蒸馏，最终以约 30% 推理成本达到 80% 流量覆盖，特别适合类目众多、长尾严重的电商搜索。
- 评估体系设计：构建 session 级共购数据集评估端到端召回，排除完全匹配和 top-10 商品，提取用户未被当前检索满足的隐性需求信号；同时用 LLM-as-judge 衡量生成标题和意图的相关性、多样性、新颖性，并通过人工验证，可作为业务中评估类似生成任务的标准范式。
- 蒸馏工程细节：教师模型在蒸馏时使用了丰富的上下文元数据（品牌、属性、历史购买），为避免学生模型在线上缺少这些特征时质量下降，蒸馏数据中混入部分剥离元数据的样本，训练学生不依赖额外 payload；另外将生成与检索解耦，LLM 不进入在线热点路径，便于缓存、降级和 AB 部署。
TSGR：将业务价值感知引入淘宝搜索生成式检索的统一框架
🧭 生成式检索 · 价值感知排序 ★ 深度解读
浙江大学 · 淘宝天猫集团
查询感知并行Semantic ID与价值感知排序模块让单一模型兼具召回与粗排，离线HR@1000提升9.16%，线上GMV+1.64%
📌 工作参考价值（4 点）
- 查询感知并行SID：利用query-item点击统计构建多路并行排序码本，同一物品在不同查询下获得不同token索引，可迁移到需要意图感知的生成式推荐/搜索中，提升长尾查询的召回精准度。
- 召回粗排一体化：VRM 从生成式骨干的隐藏态提取用户表示，通过交叉注意力融合 item side-info 直接输出价值分数，避免了独立粗排模型带来的目标错位和额外延迟，适合对延迟敏感的在线系统。
- 分级训练策略：Pre-SFT 多任务预训练（编码、检索、推荐、协同）激活各项能力，再使用加权多正样本 SFT（pay > click > pv）对齐业务目标，能够稳定训练并降低数据需求，可直接应用于其他业务场景的生成式模型训练。
- 工程化部署：通过前缀树约束前两层 SID 解码，动态 beam search 与 VRM 即时计算价值分，将推理延迟控制在 65ms 以内，为工业级生成式检索的在线部署提供了可行的架构参考。
超越语义ID：将业务价值排序编码入文档标识的生成式检索
🧭 生成式检索 · 业务价值排序 ★ 深度解读
Alibaba
提出 CRID，将DocID解耦为语义聚类与业务价值序数排名，实现无冲突、可增量更新的生成式检索，线上GMV提升1.06%
📌 工作参考价值（4 点）
- DocID设计巧思：将业务价值（转化率等）作为序数排名编码到最后一层codebook，简单替换即可获得比OPQ、Sinkhorn等复杂量化方法更大的Hitrate提升，天然无冲突且支持增量更新。
- 增量更新策略：新物品仅需分配到最近的语义簇，每日根据最新业务统计重排簇内排名，无需重训codebook，对线上时效性友好。
- 分析框架复用：通过prefix N-gram匹配度和业务排名分组，可把生成式检索的召回增益拆解为「个性化偏好泛化」与「统计先验泛化」两个维度，进而指导语义簇大小的选取，平衡top-K与deep-K表现。
- 动态beam校准：多级codebook解码时，不同解码阶段的概率分布差异大，可按累积概率截止点分别设定beam size，在保持Hitrate覆盖的同时节省推理开销。
MMRM：面向电商搜索排序的多路多模态商品表示模型
🧭 多路多模态表示 · 多任务对比学习 ★ 深度解读
JD.COM
用共享MLLM加任务特定token，一次推理生成四种解耦商品向量，并设计多路用户表示提升多目标排序
📌 工作参考价值（4 点）
- 多任务协同信号联合训练：将搜索点击、行为序列中的点击/加购/下单四种信号分别构建三元组数据集，用对比学习对齐多模态LLM，生成更全面的商品表示。可迁移到电商多行为序列建模，捕捉不同意图（流行、搭配、复购）的品间关系。
- 一次推理产出多套解耦向量：在输入中插入[SEARCH]/[CLICK]/[CART]/[ORDER]等任务特定token，经过共享主干后由独立MLP投影，单次前向获得四个解耦嵌入，避免为每个任务单独微调或推理，适合工程落地。
- 排序侧的多路用户表示：利用多套商品向量分别进行Soft Search提取任务相关行为序列，再通过Multi-Head Target Attention生成任务特定用户表示，最后经MMoE融合。这种设计能让CTR/加购/转化塔各取所需，缓解多任务场景的表示纠缠问题。
- 数据构建技巧：基于行为图采样时，用Word2Vec风格的子采样概率和难负例采样（同子类目负例）提升对比学习质量；使用GradCache突破显存瓶颈，在4B参数MLLM上用4096 batch size训练，可直接参考其工程参数。
IntentTune：利用用户需求与个性化解决电商搜索中模糊查询意图未知问题
🧭 个性化查询意图解析 ★ 深度解读
eBay Inc., USA
通过融合用户历史查询等行为信号，用LLM推断模糊查询的性别、年龄、尺寸等意图，显著优于仅用总体需求或静态画像
📌 工作参考价值（4 点）
- 意图推断模块设计：当基线意图模型输出 “unspecified” 时，路由到 LLM 进行个性化推断。可参考 IntentTune 架构，单独构建一个服务或模型，用近期高置信度用户查询（如性别置信度>0.8、年龄置信度>0.9）作为上下文，输出细化的性别、年龄、类目甚至尺寸意图，直接接入检索排序通路。
- 用户信号选择：历史查询行为远优于用户画像属性（如注册时填写的年龄、性别）和总体需求分布。实际系统中应优先利用短期搜索历史，提取其中意图明确的查询作为 prompting 素材，而不是依赖静态标签。
- 类目粒度优化：对于模糊查询，先将类目预测模型给出的候选类目列表提供给 LLM，让 LLM 根据用户历史行为选择或收缩正确类目，可有效减少下游检索的候选空间，同时保持正确性，类似 “后验类目精排” 思路。
- 冷启动与冲突处理：当历史查询不足时可回退到需求模式（利用类目预测模型最高置信度类目推断意图），但尺寸意图不适用此方法。多重信号冲突时，需要设计置信度投票或加权机制，避免直接采信单一来源。
OneRetrieval：用可编辑生成式模型统一电商多路检索
🧭 生成式检索 · 可编辑Semantic ID ★ 深度解读
Kuaishou Technology
首个兼具高召回与倒排索引级实时编辑能力的生成式检索框架，通过关键词对齐编码和预留槽位实现多路召回统一。
📌 工作参考价值（4 点）
- 保留槽位实现术语实时注入：在码本中为每个属性组预留少量 token，训练时不绑定具体词，仅通过自路由监督保证可解码；部署后只需更新属性词典和 SID-to-item 查找表即可立即上线新词，无需重训模型，完美替代倒排索引的编辑能力。
- 关键词对齐编码 (KAE) 解耦语义与编辑：将语义标识符的每个位置绑定到可解释的属性词而不是量化嵌入，使编辑能力来源于上游字典，与模型策略分离；同时利用 LM 先验提升召回，位置透明便于 debug 和人工干预。
- 信息论驱动的非均匀容量分配：通过互信息损失聚类将 18 类细粒度属性合并为 6 组，密集组分配更大码本容量（2048 vs 1024），显著减少属性词冲突，提升深层召回（HR@350 达 0.6055）且几乎不增推理成本。
- 四阶段 SFT 联合保障质量与可编辑性：阶段 0 对齐槽位与属性词先验，阶段 2 引入协同共现信号为预留槽路由打下基础，阶段 3 用极小量自路由样本保持预留槽可发射；新增功能与检索质量通过近解耦的 stage 分别保障，避免相互干扰，可直接迁移到其他生成式推荐系统。
BEATS：通过迭代人机协同，从零构建电商搜索属性体系
🧭 电商搜索 · 属性体系构建 · 人机协同 ★ 深度解读
National Taiwan University · Rakuten Group, Inc. · Taiwan Rakuten Ichiba, Inc. · Rakuten Asia Pte. Ltd.
将多模型LLM生成、合成与精炼与迭代人审结合，从无到有构建电商属性体系，显著改善搜索体验。
📌 工作参考价值（4 点）
- 从零构建电商属性体系的标准化流程：多源LLM生成候选属性→生成式合成合并→精炼去噪，再经开发人员预审与领域专家标注，迭代优化prompt。对于冷启动平台，可快速复制。
- 多模型集成思路：选用架构、训练数据、规模差异大的LLM（如GPT-OSS、Qwen3文本/视觉版）分别生成，通过多样性保证覆盖，合成模型统一规范。在电商属性生成中，不同模型各有所长（有的擅长技术参数、有的擅长使用场景）。
- 迭代prompt优化的技巧：根据质量检查与标注反馈，添加负面样例、调整粒度指令、引入类别上下文，并针对系统性错误升级精炼模型。第二轮接受率从89%飙升至99.88%，可直接复用这类迭代策略。
- 属性标注直接反哺搜索：利用生成的属性类型对商品进行结构化标注，无需预定义值集，即可丰富稠密检索的文本表示。在本实验中，仅凭属性文本增强，双塔稠密检索R@10提升5.7%，NDCG@10提升5.7%，零架构改动。
DSIRM：查询桥接的离散语义标识符用于电商相关性建模
🧭 搜索相关性 · 离散语义ID ★ 深度解读
Taobao & Tmall Group of Alibaba
通过查询桥接对比学习训练RQ-VAE生成相关性感知的离散语义ID，并利用LLM预测查询SID，以层次匹配分数增强排序模型
📌 工作参考价值（4 点）
- 1. 将离散SID作为排序模型的补充特征：物品侧用RQ-VAE离线量化成层级码，查询侧用小尺寸LLM在线生成可能的SID，通过层级前缀匹配得到一个离散匹配分数，即插即用到任意DNN排序模型中，有效弥补连续嵌入在细粒度属性区分上的不足。
- 2. 查询桥接的对比量化训练：用InfoNCE损失强制匹配的query-item对在量化空间中靠近，把无监督聚类转成有监督的搜索相关性分区，并配合类别感知的一级码本分配（按类目固定码本索引）缓解类别不平衡，这一范式可迁移至其他需要查询感知离散表示的场景（如推荐中的用户意图聚类）。
- 3. LLM解码意图多义性：微调自回归LLM根据查询文本生成Top-K个SID，以beam search得到多条候选，显式建模查询的多义意图，再与物品SID做层级匹配，该方法可复用到查询改写、意图识别等模块，比单一向量表示更灵活。
- 4. 离线在线混合部署方案：物品SID预计算并存入KV缓存，查询侧对历史查询做缓存（88%流量命中），仅12%实时流量走LLM推理，0.6B模型平均延迟17.9ms，P99 24.3ms，几乎不增加主链路耗时，为高性能系统中引入生成式LLM特征提供了低成本的工程样板。
电商产品搜索中的语义检索：两阶段 Siamese LLM 训练与相对几率对齐
🧭 电商语义检索 · 两阶段训练与偏好对齐 ★ 深度解读
Flipkart, India
通过对比学习与分级偏好对齐两阶段训练，让 LLM 双塔在电商搜索中实现细粒度相关性排序，A/B 实验提升 CTR/加购/下单
📌 工作参考价值（4 点）
- 两阶段训练可直接用于电商双塔：先用大量行为+标注数据做对比学习，再引入偏好对齐（ROAR）对多级相关性（完全匹配 > 替代品 > 互补品 > 无关）进行精排，离线 MAP@8 提升 5.57 个百分点，在线 CTR/加购/订单均有显著提升。
- 假阴性掩码解决同一商品多规格问题：在对比学习时，如果批次内存在相似商品（如不同尺码），传统负采样会错误地惩罚它们，使用 margin mask（cos(q, d_i) - cos(q, d_pos) < 0.1）自动排除假阴性，可在电商推荐的双塔训练中直接复用。
- ROAR 对齐目标可推广到任意级数：该目标基于条件几率比，支持每组 2～7 个产品，通过连续 odds-ratio 边际实现分级偏好排序，不需要固定标签数，适合电商中“完全匹配 > 替代 > 互补 > 无关”等多级信号。
- 数据增强策略值得借鉴：利用 LLM 做同义词扩展、对抗性拼写扰动、多语言音译，以及从推荐系统的共点击信号和 session 改写中构建替代品监督，可有效提升长尾查询的召回，尤其是品牌、型号等特定词汇的语义泛化。
Graph-GRPO：电商搜索相关性生成式推理的依赖感知信用分配
🧭 生成式电商搜索相关性·图信用分配 ★ 深度解读
Nankai University · JD.COM
提出图结构GRPO，将CoT推理步骤构建成依赖图，通过图传播结局奖励到节点，实现细粒度信用分配，提升电商搜索相关性。
📌 工作参考价值（4 点）
- 在结构化推理任务（如电商搜索相关性）中，可将 CoT 步骤间的逻辑依赖显式建模为图，利用图传播结局奖励到局部节点，实现更精细的信用分配，比单纯使用序列级 GRPO 或独立过程奖励更有效。
- 可学习图系数与主策略损失联合优化，使信用传播强度自适应不同训练阶段和样本分布，这一机制可泛化到其他多步推理的 RL 微调场景。
- CoT 随机掩码训练策略：SFT 阶段对推理 token 随机掩码但始终监督决策标签，既保留结构化推理信号又防止过拟合模板化解释，适合作为 RL 初始化。
- 通过图节点多头蒸馏，将 LLM 的结构化推理能力迁移到轻量 Bert 模型，在满足在线低延迟要求的同时保留多维度匹配判别能力，为 LLM 在搜索中的工业部署提供可行方案。
面向可持续增长：电商搜索的多价值感知检索框架
🧭 生成式推荐 · 冷启动与长期生态价值 ★ 深度解读
Taobao & Tmall Group of Alibaba
提出兼顾即时转化与新商品长期增长潜力的多价值感知生成式检索框架，在淘宝实现新商品GMV提升5.3%
📌 工作参考价值（4 点）
- 长短期价值解耦的奖励设计：通过 ItemLTV 反事实预测新商品的“增量交易价值”，将长期潜力量化为可优化信号，可直接迁移到电商推荐/检索的重排或混排阶段，作为长期收益的辅助目标。
- 多价值对齐训练范式 (MoPO)：将搜索漏斗（曝光→点击→购买）与 ItemLTV 分数统一为加权奖励，并用 clipped importance weight 缓解头部偏差，可复用到多目标召回模型，自动探索高潜力长尾商品。
- 生成式检索 + Semantic ID 的冷启动方案：利用 RQ-VAE 生成三层语义ID，并在解码时使用 trie 约束保证合法性，可借鉴到品类多、新品频出的电商场景，避免 ID 冷启动问题。
- 线上 A/B 测试设计：结合用户侧（即时效率）和物品侧（长期增长）分桶实验，提供了一套评估长期生态价值的方法论，对业务中衡量新商品扶持策略的真实效果很有借鉴价值。
基于语义聚类ID与专家引导RL的高效电商搜索生成式检索
🧭 RecSys ★ 深度解读
Taobao & Tmall Group of Alibaba
提出语义聚类ID（CQ-SID）和专家引导GRPO，在电商搜索召回中大幅提升命中率并降低推理成本，在线GMV提升1.15%